心理学ワールド 80号 小特集 人工知能と人間，どちらが合理的？ 服部 雅史(立命館大学総合心理学部 教授) | 日本心理学会

27 小特集　ヒト vs. 人工知能 識的で自動的な過程の両方が必要 である旨を先駆的に論じている。 以下では，認知過程と合理性の概 念を基軸として，人工知能と人間 の「賢さ」について考えたい。 AlphaGoに足りないもの 　いま，ディープラーニングが熱 い。音声・画像認識や囲碁など， これまでできなかったことがコン ピュータでできるようになってい るのを見るにつけ，Googleの宣伝 効果を割り引いても，これが画期 的なAI技術であることは疑う余 地がない。世界最強の棋士を破っ ただけでなく，定石から外れた 「棋士の理解を超える着手の連続」 （朝日新聞, 2017.6.2）が見られる 事実からも，囲碁AIはもはや完 全に人間を超えたと言えよう。 　しかし気になることがある。プ ロ棋士の大橋拓文氏が「AlphaGo はよい手を打つがそれを言語化で きない」という旨のことを話され ていた（日本認知科学会第34回 大会招待講演, 2017.9.14）。人間 は手に「意味」を見出して打ち進 めるが，AIにはそれがない。妙 手の意味を他者に伝えることがで きないのである。 　これは，人間にとっては当たり 前の「メタレベルの解釈」がAI にないからである。ポアンカレは 自分がよいアイデアを思いついた 状況を振り返って，それに意味づ けをしたり，自分自身が考えた過 程を分析したりした。この過程が AIにはない。この点が，人間と AIの決定的な違いではないか。 　もちろん，それはルーチンを 組み込めばよいだけだという反 論はあるだろう。実際，Google は，画像の認識のみならず，画像 からその説明文を自動的に生成す る Images To Text を開発してい る。しかし，これは何か違う気が する。おそらく，対象レベルの認 知とメタレベルの認知が，ほぼ同 時に自動的に発動し，しかも両者 が不可分な過程として存在するこ とが重要なのではないだろうか。 簡単だが難しいこと 　メタ認知とは，認知についての 認知を指す。これは対象レベルの 認知よりも一段上の認知を指し， 無意識的認知の上に位置する意識 的認知のさらに上に位置づけられ る。しかし，私は，メタ認知活動 の多くはむしろ潜在的（無意識 的）で自動的な性質を持つと考え ている。さらに言えば，ひょっと すると，潜在的メタ認知がなけれ ば本当の知性は創発しないのでは ないだろうか。 　たとえば，私たちの雑談を考え てみよう。雑談中に話題はどんど ん変わる。話題に応じて発話内容 を決めるわけだが，思いついた内 容がすべて適切というわけではな い。相手の好みや傾向を考え，反 応を予想しながら内容を選定する。 　「散歩に出かけるために乗合馬車 に乗った。その階段に足を触れたそ の瞬間，（中略）突然わたくしがフッ クス関数を定義するに用いた変数は 非ユークリッド幾何学の変換とまっ たく同じである，という考えがうか んで来た。馬車内に座るや否や，や りかけていた会話をつづけたため時 がなく，検証を試みることをしな かったが，しかしわたくしは即座に 完全に確信をもっていた。」（ポアン カレ, 1908/1953, p.58） 　いつの日か，AI（人工知能） がポアンカレのような創造的な仕 事をすることができるだろうか。 囲碁AIは人間を超えたが，数学 でそれが実現する日は来るのか。 　数学は演繹である。つまり，前 提を正しいとしたときに正しく導 かれることがらだけで構成される 体系である。本来，こうした演算 はコンピュータの得意領域である。 しかし，数学が演繹的体系であっ ても，演繹だけで数学を「作る」 ことはできない。原理的には網羅 的探索で必勝できるはずの囲碁 が，実際の勝負で勝つにはさまざ まな工夫が必要なのと似ている。 　では，創造性に何が必要か。ポ アンカレは，数学の証明に審美的 感受性が不可欠と考えた。つま り，発見には，斬新な発想と正し く評価できる「眼」が大切という ことであろう。また彼は，意識的 で努力を要する認知過程と，無意

人工知能と人間，どちらが合理的？

服部雅史

28 を思いついても，すぐに正しさを 確かめずに馬車の中で雑談を続け た。考えが行き詰まったら散歩に 出かける。話を面白くするために 話題を飛躍させる。こうしたコン トロールができなければ本当に知 的であるとは言えない。 　もし，碁を打つAIが対局の最 中に碁を中断して雑談を始めた ら，それはエラーかもしれない。 しかし，その時こそ，いわゆる 「シンギュラリティ」がもたらす 脅威に対するホーキング博士の警 告（Independent紙, 2014.5.1） に ついて，少しは真剣に考え始めて もよいかもしれない。さらに言え ば，そうした知的なシステムは， 結局，「意識」を必要とするので はないかと私は考えている。 　多重目標の統合において重要 な点は，目標の多くの要素に意識 が関係していることである。ここ で，意識には，自分自身をかけが えのないものとみなして尊ぶこと を可能にするという特別な機能が ある（ハンフリー , 2011/2012）と 仮定してみよう。すると，自意識 を介した魂のウェルビーイングと いう多重化された目標の達成は， 生物としての知性に不可欠なのか もしれないという思いが頭をよぎ る。生の尊重は，死の脅威と表裏 一体である。ならば，真のAIは， 『2001年宇宙の旅』のHAL 9000 のように，やはり自らの終焉に心 を乱すのではないだろうか。 文　献 N. ハ ン フ リ ー ／ 柴 田 裕 之（ 訳 ） （2012）『 ソ ウ ル ダ ス ト：「 意 識 」 という魅惑の幻想』紀伊國屋書店 H. ポ ア ン カ レ ／ 吉 田 洋 一（ 訳 ） （1953）『科學と方法』岩波書店 Quattrone, G. A. & Tversky, A.

（1984） Journal of Personality and Social Psychology, 46 , 237-248. 相手についての知識（0次的信念） だけでなく，相手が自分をどう見 ているか（1次的信念），相手につ いて自分が何を知っていると相手 が思っているか（2次的信念）も 話の内容の適切さに影響する。 　会話中は，メタ認知がフル活動 する。本人ははっきり意識しない が，相手の表情だけでなく，相手 としゃべる自分の様子や，相手に 映る自分の表情がどうであるかに ついても，きっとモニタしている はずである。また，相手の表情が 曇ったら，さりげなく話題を変え るといったコントロールも重要と なる。多かれ少なかれ人間なら誰 もが行っているが，これらのこと をAIに教えるのは容易ではない。 目標は一つではない 　もう一つ重要な側面は，目標多 重性である。通常，雑談に明確な 目的はないが，会話をすることの 前提として複数の欲求を想定する ことができる。たとえば，相手と 仲良くなりたいとか，自分の気持 ちを理解して欲しいといった欲求 である。こうした目標は時に競合 する。自分のことばかり話してい ると，相手は退屈するかもしれな い。最終的に出力する行動は一つ なので，複数の目標の統合のしか たが常に問題となる。 　多重目標の統合というタスクは 複雑にみえるが，実は人間は案外 すんなりやっているのかもしれな い。ここでは，その考えの根拠と なる現象を一つだけ挙げておく。 　 あ る 実 験 で，「 心 臓 が 健 康 だ と，冷水耐性が高く，平均寿命も 長い」と教示すると，これ以上 冷水に腕をつけていられないと 感じるまでの時間が35パーセン ト伸びた （Quattrone & Tversky, 1984）。参加者は，心臓タイプが 冷水耐性と寿命の共通原因である ことを知っていたので，これは因 果推論の誤りである。しかし，自 己欺瞞が自己効力感を高めて幸福 感を増すのなら，それを目標の一 つとすることには意味がある。 　この実験は，三つのことを示唆 している。第1に，人は自ら設定 する目標を実験室に持ち込むこ と，第2に，そうして多重化した 目標を統合する認知処理が自動 的・無意識的に発生すること，第 3に，一見「不合理」に見える行 動は，目標の多重性を考慮すると 必ずしも不合理ではないことであ る。第3の点は，合理性の意味， そして，AIと人間の違いを考え るための論点を提供する。 合理性と意識と魂 　私たちの認知にはバイアスがあ り，それが時には，不合理なエ ラーの原因となる。そうしたエ ラーは，課題で要求される目標に 自ら持ち込んだ目標を混入させる ことによって起こると考えてみよ う。そこで問題となるのは，果た して，そうすることは「誤り」で あるかどうかである。 　単一の目標に焦点化すること は，コンピュータの得意技であ る。しかし，そうして硬直化した システムは，二つの干草の間でど ちらに行くか迷って餓死したビュ リダンのロバになる危険性があ る。ポアンカレは，よいアイデア